한 사용자가 구글 검색 결과의 품질 저하에 대해 질문했고, 구글의 자체 AI 모델인 Gemini가 놀랍도록 솔직한 답변을 내놓았습니다. 특히 검색 품질 저하의 원인 중 하나로 '수익 창출'을 명확히 짚어낸 점이 눈길을 끕니다. 이는 현재 AI 시스템이 사용자 경험보다 플랫폼의 비즈니스 이익에 어떻게 영향을 받고 있는지를 적나라하게 보여주는 사례입니다.
메타(Meta)의 전 뉴스 총괄이었던 캠벨 브라운(Campbell Brown)은 AI가 정보를 제공하는 방식이 소셜 미디어의 전철을 밟을 수 있다고 경고하며, AI 모델의 정보 정확도와 편향성을 평가하는 스타트업 '포럼 AI(Forum AI)'를 설립했습니다. 이 회사는 지정학, 금융 등 고위험 주제에 대해 최고 전문가들의 기준을 바탕으로 AI를 훈련시켜 평가하며, 기업의 컴플라이언스(준법) 수요를 비즈니스 모델로 삼고 있습니다.
최근 병원을 비롯한 의료 현장에서 AI의 도입이 급증하고 있지만, 이것이 실제로 환자의 건강과 치료 결과(Health outcomes) 향상으로 이어지는지는 아직 검증되지 않았습니다. 전문가들은 의료진의 업무 편의성과 만족도 개선에만 집중할 것이 아니라, AI가 의사의 임상적 의사결정이나 인지적 정보 처리에 미치는 영향과 잠재적 부작용을 체계적으로 평가해야 한다고 경고하고 있습니다.
아이폰6의 플래시를 켜고 찍은 듯한 혼란스럽고 기괴한(UnCanny) 무작위 장면을 생성하는 프롬프트가 화제다. 해당 프롬프트는 AI 모델의 편향성이나 학습 데이터의 어두운 면을 자극하여, 매우 불쾌하고 섬뜩한 결과물을 무작위로 만들어냅니다. 이는 AI 이미지 생성 모델이 특정 조합의 명령어를 통해 얼마나 통제 불가능하고 일그러진 콘텐츠를 출력할 수 있는지를 보여주는 중요한 사례입니다.